Hàn Toại thua chạy theo đường Hoa Âm, về đến Hoàng Trung thì thủ hạ tan rã, nhiều người bỏ đi. Trong các tướng thân cận chỉ còn Thành Công Anh và Diêm Hành đi theo.

Tào Tháo biết Diêm Hành đã nhận chức theo mình để chống Hàn Toại, nên chỉ hạ lệnh giết con cháu Hàn Toại ở kinh đô mà không giết cha Diêm Hành. Đồng thời, Tào Tháo lại viết mật thư nhắc Hành chống Hàn Toại. Hàn Toại muốn lấy lòng Diêm Hành thắt chặt quan hệ, liền gả con gái út cho họ Diêm. Diêm Hành bất đắc dĩ phải lấy. Ông sai Diêm Hành mang quân ra trấn giữ quận Tây Bình.

Tào Tháo nghe tin Diêm Hành lấy con gái Hàn Toại, bắt đầu có ý nghi ngờ Hành. Để minh chứng lòng trung thành, Diêm Hành nhân một buổi đêm mang quân bản bộ tập kích Hàn Toại. Nhưng Hàn Toại vẫn đủ sức chống trả, đánh bại Diêm Hành. Hành bỏ chạy đến hàng Hạ Hầu Uyên.

Hàn Toại than thở với Thành Công Anh về thực lực đã suy rồi tỏ ý định vào đất Thục theo hàng Lưu Bị. Thành Công Anh khuyên ông:

"Dấy binh mấy chục năm, nay dẫu thua vỡ, sao lại bỏ nhà mình mà đến nương dựa vào người khác được! Tào Công không thể đi xa đến, chỉ có họ Hạ Hầu thôi. Nhưng quân của họ Hạ Hầu cũng không đủ để đuổi được ta, lại không thể ở lâu; nên nghỉ ngơi ở Khương Trung để đợi họ rút đi. Kêu gọi người Địch, vỗ về người Khương, Hồ, cũng có thể làm nên được việc vậy".

Hàn Toại không thể hàn gắn liên minh với Mã Siêu, nghe theo kế ấy của Thành Công Anh. Ông liên minh với vua người tộc Chi (Đê) là Đậu Mậu tiếp tục kháng cự Tào Tháo. Bấy giờ trai gái đi theo còn mấy nghìn người. Hàn Toại vốn có ân với người Khương nên được người Khương giúp đỡ.

Hạ Hầu Uyên trở về, sai Diêm Hành ở lại phía sau đề phòng Hàn Toại.